WYKŁAD nr 4. Zaanie programowania nieliniowego ZP. Ekstrema unkcji jenej zmiennej o ciągłych pochonych Przypuśćmy ze punkt jest punktem stacjonarnym unkcji gzie punktem stacjonarnym nazywamy punkt la którego R. A./ punkt stacjonarny jest miejscem ekstremum jeżeli : > i wówczas występuje minimum lokalne silne < i wówczas występuje maksimum lokalne silne B./ punkt stacjonarny nie jest miejscem ekstremum lecz miejscem przegięcia unkcji jeżeli : 3 3 < >
< minimum maksimum punkt przegiecia punkt przegiecia 3 3 > 3 3 < > Rys. Ekstrema i punkty przegięcia unkcji Uogólnienie: Jeżeli unkcja ma w otoczeniu pochone o rzęu włącznie a nato : K.. K K i i oraz K i la to jeżeli jest liczbą parzystą K A./ unkcja ma w punkcie minimum lokalne silne gy > K K B./ unkcja ma w punkcie maksimum lokalne silne gy < K K Jeżeli jest nieparzyste to ekstremum unkcji w punkcie stacjonarnym nie istnieje. K Znając punkty stacjonarne unkcji la znalezienia jej minimum leżącego wewnątrz zbioru Η wystarczy zbaać wartości jakie unkcja przyjmie w punktach stacjonarnych. Możliwość wnioskowania o tym że punkt stacjonarny jest punktem
w którym unkcja osiąga ekstremum wiąże się z wypukłością unkcji oraz wypukłością zbioru Η. Zbiór punktów opuszczalnych Η w obrębie którego możemy poszukiwać punktu w którym unkcja osiąga ekstremum jest na ogół wyznaczony przez zespół warunków ograniczających określonych przy pomocy pewnych unkcji ograniczających : a./ warunki ograniczające równościowe b./ warunki ograniczające nierównościowe. A.a punkt musi spełniać warunki równościowe które mają postać I równań : gi g i i.. I g i stałe Warunek bęziemy oznaczać W { wi i.. I} co oznacza że punkt ma należeć o zbioru punktów spełniających. Zbiór ten oznaczamy hiperpowierzchnie.spełnienie warunku Η jest Η i równoważne spełnieniu warunku w i. Równoczesne spełnienie zespołu wóch równań g g ; g g oznacza że punkt leży zarówno na hiperpowierzchni jak i na Η Η hiperpowierzchni a więc należy o zbioru Η Η Η bęącego Η Η iloczynem zbiorów i. W przypaku gy obie unkcje g g ; g g są liniowe hiperpowierzchnie Η Η są płaszczyznami. W grę wchozą trzy możliwości :. płaszczyzny są równoległe Η Η Η Η Η Η. płaszczyzny pokrywają się 3. płaszczyzny przecinają się Ograniczenia w przypaku.. nazywamy zegenerowanymi. Przypaek 3. jest niezegenerowany zbór Η Η Η jest linia przecięcia płaszczyzn Η. Oznaczymy ogólnie przez Η zbiór punktów spełniających zespół warunków W wi i.. I. Zbór ten jest iloczynem zbiorów zatem: { } Η i i Η
Η I Ηi i 3 Znajowanie rozwiązania zaania optymalizacji ZO : : 4 sprowaza się o baania unkcji Η w punktach leżących w zbiorze Η. A.b warunki ograniczające nierównościowe mają postać zespołu nierówności : h h j.. J j ' j ' j h h ierówność taką oznaczamy symbolem j j '.. J { w j J} W j.. w j a ich zespół przez Przy założeniu że unkcja jest unkcją ciągłą hiperpowierzchnia Η i określona równaniem h j h j rozziela przestrzeń R na wa zbiory. Zbiór leżący po jenej stronie powierzchni charakteryzuje się tym że h j h j po rugiej zaś stronie tym że h j h j 5 h > j h j h j h j h j h j Rys. Przestrzeń R rozzielona na wa zbiory Zbiór punktów Η spełniających warunki nierównościowe jest więc iloczynem zbiorów Η j j.. J Η I Ηi i 6
Η Η 3 Η Η Η 3 Ηi i Η Rys.3 Zbiór Η Η 3 I Ηi i Poobnie jak w przypaku warunków równościowych może powstać sytuacja że I iloczyn Η jest zbiorem pustym co oznacza że warunki ograniczające są i i sprzeczne. Poszukiwanie miejsca ekstremalnego znacznie się upraszcza jeżeli zbiór Η jest zbiorem wypukłym. Deinicja: Zbiór A nazywamy zbiorem wypukłym jeżeli la A oraz A wynika że punkt α + α la α 7 należy też o zbioru A Tak więc zbiór jest wypukły jeżeli z aktu iż wa punkty A i A wynika że cały ocinek łączący te punkty należy też o tego zbioru. Η Η Rys.4 Przykłay zbiorów wypukłych
Η Η Η Rys 5 Uwaga: Przykłay zbiorów które nie są wypukłe Iloczyn zbiorów wypukłych jest także zbiorem wypukłym./ Z pojęciem wypukłości zbioru wiąże się pojecie wypukłości unkcji Mówimy że ciągła unkcja h R jest wypukła w ół w przestrzeni R jeżeli la owolnych wóch punktów R R oraz każego α < > zachozi : h [ α + α ] α h + α h 8 natomiast jeżeli : h α + α α h + α h 9 to unkcja [ ] h R jest wypukła w górę w przestrzeni./ W przypaku gy warunek 8 zachozi tylko la owolnych punktów Η Η przy czym Η jest zbiorem wypukłym w przestrzeni R to unkcję h nazywamy wypukła w ół w zbiorze wypukłym Η w przypaku warunku 9 unkcję h nazywamy wypukła w górę w zbiorze wypukłym Η R C./ Warunki zapewniające istnienie ekstremum globalnego Sytuacja upraszcza się jeżeli unkcja określona w zbiorze R wszystkich liczb rzeczywistych jest wypukła w górę lub w ół. Jeżeli unkcja jest wypukła w ół to może mieć tylko jeno minimum bęące jej minimum globalnym. Jeżeli unkcja jest wypukła w górę to może mieć tylko jeno maksimum bęące jej maksimum globalnym. Funkcja określona w zbiorze R jest : wypukła w ół gy la wszystkich R
wypukła w górę gy la wszystkich R D./ Ekstrema lokalne niewłaściwe spłaszczone Jeżeli la wszystkich Η jest oraz w pewnym przeziale Η takim że Η Η ruga pochona jest ciągła to unkcja na w przeziale Η : a. maksimum lokalne niewłaściwe spłaszczone gy H b. minimum lokalne niewłaściwe spłaszczone gy H. Ekstrema unkcji wu zmiennych o ciągłych pochonych A./ Hesjan i jego własności Hesjanem unkcji w punkcie X nazywamy : Z twierzenia Schwarca o równości pochonych cząstkowych mieszanych wynika że hesjan jest macierzą symetryczną. Jeżeli utworzymy wektor [ u u ] T to unkcję A u u a u + u a u u + a u gzie : a ij i j możemy zapisać jako : i j co oznacza że unkcja macierzy symetrycznej T u u u u A A u u jest ormą kwaratową wzglęem wektora u o.
B./ Istnienie i postać ekstremum unkcji w punkcie stacjonarnym zależy o charakteru ormy kwaratowej określoności lub półokreśloności. A u u a ściślej o jej C./ Jeżeli la wszystkich wektorów u zachozi nierówność : T./ A u u u u > to macierz orma kwaratowa A u u jest oatnio określona T./ A u u u u to macierz orma < kwaratowa A u u jest ujemnie określona D./ Jeżeli la wszystkich wektorów u zachozi nierówność:./ A u u u u T u u A u u T i istnieje taki wektor u że to macierz orma kwaratowa jest oatnio półokreślona./ A u u u u T u u A u u T i istnieje taki wektor u że to macierz orma kwaratowa jest ujemnie półokreślona A u u jest oatnio lub ujemnie półokreślona zaś la wszystkich wektorów u zachozi E./ W szczególności jeżeli orma kwaratowa F./ T równość u u to o ormie kwaratowej A u u mówimy że jest tożsamościowo równa zero. W takim przypaku hesjan jest macierzą zerową. Możemy zawsze okonać takiego obrotu ukłau o współrzęnych u ormę [ u u ] że w nowym ukłazie o współrzęnych [ u ] kwaratową A możemy zapisać w postaci : u u A u u u + 3 A u u u w której : są wartościami własnymi macierzy G./ Wielomianem charakterystycznym macierzy kwaratowej nazywamy wielomian o postaci: ϕ et 4 [ ] Równaniem charakterystycznym macierzy kwaratowej nazywamy : ϕ 5
Wartościami własnymi macierzy są pierwiastki równania charakterystycznego 3.5 zbiór wartości własnych macierzy nazywamy wimem tej macierzy. Przykła 3../ unkcja wóch zmiennych +./ hesjan unkcji 4 3./ wielomian charakterystyczny hesjanu ϕ et et 4 4./ równanie charakterystyczne hesjanu ϕ ϕ [ ] 4 { } ϕ 6 + 4 5./ wartości własne hesjanu pierwiastki równania charakterystycznego 3 + 5 3 5 6./ wimo hesjanu zbiór pierwiastków charakterystycznych 3 + 5 3 5 { } H./ Ogólnie możliwa jest jena z następujących sytuacji a./ obie wartości własne są oatnie b./ obie wartości własne są ujemne c./ wartości własne mają przeciwne znaki./ jena w wartości własnych jest równa zero
a.a Rys.6 Paraboloia eliptyczna wypukła w ół [ ] Jeżeli obie wartości własne hesjanu są oatnie wówczas zachozi przypaek C. T u u u u A > macierz określona. Obrazem graicznym unkcji paraboloia eliptyczna wypukła w ół. orma kwaratowa A u u jest oatnio jest w tym przypaku a.b Jeżeli obie wartości własne hesjanu są ujemne wówczas zachozi przypaek C. T A u u u u < macierz orma kwaratowa A u u jest ujemnie określona Obrazem graicznym unkcji jest w tym przypaku paraboloia eliptyczna wypukła w górę.
Rys.7. Paraboloia eliptyczna wypukła w górę [ ] a.c w przypaku gy wartości własne są różnych znaków orma kwaratowa przyjmuje zarówno wartości oatnie jak i ujemne. Forma kwaratowa jest zatem nieokreślona a także nieokreślony jest hesjan. Obrazem graicznym unkcji jest w tym przypaku paraboloia hiperboliczna jak na rysunku poniżej. Rys.8 Hesjan nieokreślony Punkt siołowy [ ]
a.a. Jeżeli jena z wartości własnych jest równa zero a ruga jest oatnia to zachozi przypaek D. A 3 [ ] [ ] Rys. 9 Minimum niewłaściwe spłaszczone unkcji T A u u u u macierz orma kwaratowa A u u jest oatnio półokreślona.doatnia półokreśloność wskazywać może na istnienie minimum niewłaściwego spłaszczonego unkcji. Aproksymacja lokalna unkcji walcem hiperbolicznym leżącym i wypukłym w ół wykazuje istnienie minimum niewłaściwego spłaszczonego. W przypaku A. w zbiorze Η istnieje minimum niewłaściwe rys. 9 W przypaku B w zbiorze Η minimum niewłaściwe nie istnieje rys... Jeżeli jena z wartości własnych jest równa zero a ruga jest ujemna to zachozi przypaek D. T A u u u u macierz orma kwaratowa A u u jest ujemnie półokreślona. Ujemna półokreśloność wskazywać może na istnienie maksimum niewłaściwego unkcji.
B Rys.. Minimum niewłaściwe spłaszczone nie istnieje Aproksymacja lokalna unkcji walcem hiperbolicznym leżącym i wypukłym w górę wykazuje istnienie maksimum niewłaściwego. W przypaku A. w zbiorze Η istnieje maksimum niewłaściwe rys. W przypaku B. w zbiorze Η nie istnieje maksimum niewłaściwe rys. A 3 [ ] [ ] Η Rys.. Maksimum niewłaściwe unkcji
B Rys.. I./ Maksimum niewłaściwe nie istnieje Warunki ostateczne istnienia ekstremum Istnienie i postać ekstremum Hesjan Istnieje w punkcie stacjonarnym Może istnieć w otoczeniu punktu stacjonarnego Minimum lokalne silne Maksimum lokalne silne Minimum lokalne niewłaściwe Maksimum Lokalne niewłaściwe oatnio określony ujemnie określony oatnio półokreślony ujemnie półokreślony Wartości własne hesjanu > > < < Powierzchnia określona przez unkcję A u u paraboloia eliptyczna wypukła w ół paraboloia eliptyczna wypukła górę w walec paraboliczny wypukły w ół walec paraboliczny wypukły górę w
ie istnieje ekstremum nieokreślony > < < > paraboloia hiperboliczna Dla ustalenia typu ormy A u u nie zachozi konieczność rozwiązywania równania charakterystycznego gyż nie musimy znać okłanie wartości własnych lecz tylko ich znaki. Można wykazać że jeżeli : I.. a > oraz aa a > to orma kwaratowa A u u jest oatnio określona I.. a > < oraz a a a to orma kwaratowa A u u jest ujemnie określona. Warunek ostateczny istnienia ekstremum unkcji wóch zmiennych Jeżeli unkcja ma ciągłe pochone o rzęu rugiego włącznie w otoczeniu punktu stacjonarnego to w tym punkcie unkcja osiąga minimum silne gy są spełnione warunki I.. maksimum silne gy są spełnione warunki I.. Uwaga: Dotychczas mówiliśmy tylko o ekstremach lokalnych. Analogicznie jak w przypakach unkcji jenej zmiennej sytuacja znacznie się upraszcza gy ana unkcja jest wypukła w ół bąź wypukła w górę.jeżeli tylko występuje opowienie ekstremum to jest ono jenocześnie ekstremum globalnym. Można wykazać że unkcja określona w przestrzeni R jest unkcją a. wypukłą w ół jeżeli la wszystkich półokreślony b. wypukłą w górę jeżeli la wszystkich R hesjan R półokreślony c. silnie wypukłą w ół jeżeli la wszystkich oatnio określony. silnie wypukłą w górę jeżeli la wszystkich ujemnie określony hesjan R jest oatnio jest ujemnie hesjan R hesjan jest jest
J./ Warunki ostateczne istnienia ekstremum niewłaściwego Jeżeli wszystkie punkty stacjonarne unkcji tworzą zbiór spójny Ĥ oraz w pewnym zbiorze H takim że H H wszystkie pochone rzęu rugiego unkcji są ciągłe to unkcja ta ma w zbiorze Ĥ : -minimum niewłaściwe lokalne gy hesjan jest oatnio półokreślony la H -maksimum niewłaściwe lokalne gy hesjan jest ujemnie półokreślony la H. Deinicja : Przez zbiór spójny rozumiemy taki zbiór punktów że każe wa owolnie wybrane punkty z tego zbioru możemy połączyć taka krzywą ciągłą której wszystkie punkty należą o anego zbioru. 3.3 Ekstrema unkcji wielu zmiennych o ciągłych pochonych cząstkowych A./ Postać hesjanu la unkcji wielu zmiennych n n n n B./ Warunki ostateczne istnienia ekstremum unkcji R w jej punkcie stacjonarnym 6 Istnienie i postać ekstremum Hesjan Istnieje w punkcie stacjonarnym Minimum Lokalne silne oatnio określony Wartości własne hesjanu... n > >... > n Powierzchnia określona przez unkcję A paraboloia eliptyczna wypukła w ół
Może istnieć w otoczeniu punktu stacjonarnego Maksimum Lokalne silne Minimum lokalne niewłaściwe Maksimum Lokalne niewłaściwe ie istnieje ekstremum ujemnie określony oatnio półokreślony ujemnie półokreślony n < <... > Jena spośró wartości własnych... n a pozostałe są nieujemne Jena spośró wartości własnych... n a pozostałe są nieoatnie nieokreślony co najmniej jena jest oatnia i co najmniej jena ujemna paraboloia eliptyczna wypukła górę w walec paraboliczny wypukły w ół walec paraboliczny wypukły górę paraboloia hiperboliczna w Poobnie jak w przypaku aby stwierzić rozaj określoności bąź półokreśloności hesjanu nie istnieje konieczność rozwiązywania równania charakterystycznego. Mianowicie przy baaniu określoności hesjanu można skorzystać ze wzoru Sylwestra o określoności orm kwaratowych. Aby z tego wzoru skorzystać oznaczamy poszczególne powyznaczniki hesjanu w następujący sposób : 7
n n n n n Wykorzystując powyznaczniki... n na postawie twierzenia Sylwestra można sormułować warunki ostateczne istnienia ekstremum unkcji zmiennych : Funkcja zmiennych mająca ciągłe pochone cząstkowe o rzęu rugiego włącznie w otoczeniu punktu stacjonarnego :. ma w punkcie minimum lokalne silne gy n > la n.. tj. gy hesjan w punkcie jest oatnio określony. ma w punkcie maksimum lokalne silne gy n n > la n.. tj. gy hesjan w punkcie jest ujemnie określony 3. nie można rozstrzygnąć czy istnieje ekstremum w punkcie gy : 3. la n.. n n 3. n la n.. tj. gy hesjan w punkcie jest oatnio lub ujemnie półokreślony 4. nie ma w punkcie ekstremum gy nie są spełnione warunki 3. lub 3. tj. gy hesjan w punkcie nie jest określony. 3.4 Warunki optymalności programowania nieliniowego iech bęzie ane zaanie programowania nieliniowego ZP o postaci : min X : g i i.. u gzie : X 7 gi i u +.. m n : R R jest unkcją kryterialną zaania n gi : R R są unkcjami przestawiającymi ograniczenia są unkcjami różniczkowalnymi. g i
Warunki Kuhna Tuckera Dla zaania optymalizacji 7 sormułowanego powyżej warunki Kuhna-Tuckera przestawiają się następująco :. X czyli jest punktem opuszczalnym jeżeli istnieją λ i i.. u mnożniki Lagrange a oraz istnieją λ i i u.. m o nieoznaczonym znaku takie że : m. + λ oraz 8 i i g i 3. λ i g i i.. u 9 Inna postać warunków Kuhna-Tuckera : Dla zaania programowania nieliniowego utwórzmy unkcję Lagrange a w postaci : L λ + λ m i i g i L Korzystając z warunki konieczne można zapisać w postaci : λ λ L λ λ λ L λ 3 λ oznacza graient unkcji Lagrange a wzglęem wektora λ oznacza graient unkcji Lagrange a wzglęem wektora λ 4 Jeżeli w zbiorze ograniczeń wyróżniono w sposób jawny ograniczenia na zmienne ecyzyjne wówczas warunki Kuhna-Tuckera przyjmą postać : L λ 5 L λ 6 7 λ L λ 8 λ λ L λ 9 λ gzie unkcja Lagrange a jest zeiniowana jak poprzenio. 3